♪♪
Lo que estamos a punto de enfrentar es un mundo cada vez más intenso,
sofisticada inteligencia artificial.
Hombre: la tecnología está evolucionando mucho más rápido que nuestra sociedad
tiene la capacidad de protegernos como ciudadanos.
Los robots están llegando y destruirán nuestros medios de vida.
♪♪
Usted tiene una inteligencia de red que nos mira,
sabe todo sobre nosotros, y comienza a tratar de cambiarnos.
Hombre n. ° 2: Twitter se ha convertido en el sitio de noticias número uno del mundo.
Hombre # 3: La tecnología nunca es buena o mala.
Es lo que hacemos con la tecnología.
Eventualmente, millones de personas serán despedidas de sus trabajos
porque sus habilidades van a ser obsoletas
Mujer: desempleo masivo...
mayores desigualdades, incluso malestar social.
Hombre n. ° 4: independientemente de si temer o no tener miedo,
el cambio viene, y nadie puede detenerlo.
♪♪
Hombre # 5: hemos invertido grandes cantidades de dinero,
y así es lógico que los militares,
con sus propios deseos,
van a comenzar a usar estas tecnologías.
Hombre # 6: Sistemas autónomos de armas
podría conducir a una carrera armamentista global
para competir con la Era Nuclear.
♪♪
Hombre # 7: Sabemos cuál es la respuesta.
Eventualmente nos estarán matando.
♪♪
Hombre # 8: Estos avances tecnológicos
van a dar milagros increíbles...
e increíbles horrores.
♪♪
Hombre n. ° 9: Lo creamos, así que, a medida que avanzamos,
esta inteligencia contendrá partes de nosotros.
Y creo que la pregunta es:
¿Contendrá las partes buenas...
o las partes malas?
♪♪
Sarah: Los sobrevivientes llamaron a la guerra "Día del Juicio Final".
Vivieron solo para enfrentar una nueva pesadilla:
la guerra contra las máquinas.
Aah!
Nolan: Creo que lo hemos jodido por completo.
Creo que Hollywood ha logrado inocular al público en general
en contra de esta pregunta -
la idea de máquinas que se apoderarán del mundo.
Abra las puertas de la bahía de la cápsula, HAL.
Lo siento, Dave.
Me temo que no puedo hacer eso.
¿HAL?
Nolan: Hemos llorado lobos bastantes veces...
¿HAL? ... que el público ha dejado de prestar atención,
porque se siente como ciencia ficción.
Incluso sentado aquí hablando de eso en este momento,
se siente un poco tonto, un poco como,
"Oh, esto es un artefacto de alguna película de queso".
El WOPR pasa todo el tiempo pensando en la Tercera Guerra Mundial.
Pero no lo es.
El público en general está a punto de quedar ciego por esto.
♪♪
Como sociedad y como individuos,
estamos cada vez más rodeados de inteligencia artificial.
Llevamos este dispositivo de bolsillo en la palma de nuestra mano
que utilizamos para hacer una sorprendente variedad
de decisiones de vida en este momento,
ayudado por un conjunto de algoritmos distantes
que no tenemos entendimiento.
♪♪
Ya estamos bastante hastiados con la idea
que podemos hablar con nuestro teléfono,
y sobre todo nos entiende.
Mujer: encontré bastantes películas de acción.
Hace cinco años, de ninguna manera.
Markoff: Robótica. Máquinas que ven y hablan...
Mujer: Hola, ahi.... y escucha.
Todo lo que es real ahora.
Y estas tecnologías
van a cambiar fundamentalmente nuestra sociedad.
Thrun: Ahora tenemos este gran movimiento de autos sin conductor.
Manejar un automóvil de forma autónoma
puede mover las vidas de las personas a un lugar mejor.
Horvitz: he perdido un número de miembros de la familia,
incluyendo a mi madre,
mi hermano y mi cuñada y sus hijos,
a accidentes automovilísticos.
Está bastante claro que casi podríamos eliminar los accidentes automovilísticos
con automatización.
30,000 vidas solo en los Estados Unidos.
Alrededor de un millón en todo el mundo por año.
Ferrucci: En salud, indicadores tempranos
son el nombre del juego en ese espacio,
entonces ese es otro lugar donde puede salvar la vida de alguien.
Dr. Herman: Aquí en el centro de cáncer de mama,
todas las cosas que el cerebro del radiólogo
hace en dos minutos, la computadora lo hace instantáneamente.
La computadora ha analizado mil millones de mamogramas,
y toma esa información y la aplica
a esta imagen instantáneamente,
entonces la aplicación médica es profunda.
Zilis: Otra área realmente emocionante
que estamos viendo mucho desarrollo en
en realidad está entendiendo nuestro código genético
y usar eso para diagnosticar enfermedades
y crea tratamientos personalizados.
♪♪
Kurzweil: La aplicación principal de todas estas máquinas
será ampliar nuestra propia inteligencia.
Podremos hacernos más inteligentes,
y seremos mejores en la resolución de problemas.
No tenemos que envejecer Realmente entenderemos el envejecimiento.
Podremos detenerlo.
Hombre: Realmente no hay límite para lo que las máquinas inteligentes
puede hacer por la raza humana.
♪♪
¿Cómo podría una máquina más inteligente no ser una máquina mejor?
Es difícil decir exactamente cuándo comencé a pensar
eso fue un poco ingenuo
♪♪
Stuart Russell, él es básicamente un dios
en el campo de la inteligencia artificial.
Escribió el libro que usa casi todas las universidades.
Russell: Solía decir que es el libro de texto de IA más vendido.
Ahora solo digo "es el PDF el que se roba con más frecuencia".
♪♪
La inteligencia artificial se trata de hacer las computadoras inteligentes,
y desde el punto de vista del público,
lo que cuenta como AI es solo algo
eso es sorprendentemente inteligente
en comparación con lo que pensábamos computadoras
normalmente sería capaz de hacer.
AI es un campo de investigación para intentar simular básicamente
todo tipo de capacidades humanas.
Estamos en la era de la IA
Silicon Valley tiene la capacidad de concentrarse
en una cosa brillante y brillante.
Fue una red social
y las redes sociales en la última década,
y está bastante claro que el bit se ha volteado.
Y comienza con el aprendizaje automático.
Nolan: Cuando miramos hacia atrás en este momento, ¿cuál fue la primera IA?
No es sexy, y no es la cosa
podríamos ver en el cine,
pero harías un gran caso que Google creó,
no es un motor de búsqueda, sino una divinidad.
Una forma de que las personas hagan cualquier pregunta que deseen
y obtener la respuesta que necesitaban.
Russell: la mayoría de las personas no saben que lo que Google está haciendo
es en realidad una forma de inteligencia artificial.
Simplemente van allí, escriben una cosa.
Google les da la respuesta.
Almizcle: con cada búsqueda, lo entrenamos para que sea mejor.
A veces estamos escribiendo una búsqueda, y nos dice la respuesta
antes de que hayas terminado de hacer la pregunta.
Ya sabes, ¿quién es el presidente de Kazajstán?
Y solo te dirá.
No tiene que ir al sitio web nacional de Kazajstán
descubrir.
Tú no solías ser capaz de hacer eso.
Nolan: Esa es la inteligencia artificial.
Dentro de unos años, cuando intentemos comprender, diremos:
"¿Cómo lo extrañamos?"
Markoff: es una de las contradicciones llamativas
que estamos enfrentando
Google y Facebook, et al,
hemos construido negocios en darnos,
como sociedad, cosas gratis.
Pero es un trato faustiano.
Nos están extrayendo algo a cambio,
pero no sabemos
qué código se está ejecutando en el otro lado y por qué.
No tenemos idea.
Golpea justo en el tema
de cuánto debemos confiar en estas máquinas.
Yo uso computadoras literalmente para todo.
Hay tantos avances en la computadora ahora,
y se ha convertido en una parte tan importante de nuestras vidas.
Es increíble lo que una computadora puede hacer.
En realidad puede llevar una computadora en su bolso.
Quiero decir, ¿qué tan increíble es eso?
Creo que la mayoría de la tecnología está hecha para facilitar las cosas
y más simple para todos nosotros,
así que con suerte eso solo sigue siendo el enfoque.
Creo que todos adoran sus computadoras.
♪♪
La gente no se da cuenta de que están constantemente
negociado con máquinas,
si ese es el precio de los productos en su carrito de Amazon,
si puede obtener un vuelo en particular,
si puede reservar una habitación en un hotel en particular.
Lo que estás experimentando son algoritmos de aprendizaje automático
que han determinado que una persona como tú
está dispuesto a pagar 2 centavos más
y está cambiando el precio.
♪♪
Kosinski: Ahora, una computadora mira a millones de personas
simultáneamente para patrones muy sutiles.
Puedes tomar huellas digitales aparentemente inocentes,
como la lista de reproducción de alguien en Spotify,
o cosas que compraron en Amazon,
y luego usa algoritmos para traducir esto
en un perfil muy detallado y muy preciso, íntimo.
Kaplan: hay un dossier sobre cada uno de nosotros que es tan extenso
sería posiblemente exacto decir
que saben más de ti que tu madre.
♪♪
Tegmark: la causa principal del reciente avance de la IA
no es solo eso un tipo
tuvo una visión brillante de repente,
pero simplemente que tenemos datos mucho más grandes
para entrenarlos en computadoras mucho mejores.
el Kaliouby: La magia está en los datos.
Es una tonelada de datos.
Quiero decir, son datos que nunca antes existieron.
Nunca hemos tenido esta información antes.
Creamos tecnologías que nos permiten capturar
grandes cantidades de información.
Si piensas en mil millones de teléfonos celulares en el planeta
con giroscopios y acelerómetros
y lectores de huellas dactilares...
par eso con el GPS y las fotos que toman
y los tweets que envías,
todos estamos emitiendo grandes cantidades de datos individualmente.
Los automóviles que conducen a medida que las cámaras los añaden absorben información
sobre el mundo que los rodea.
Los satélites que ahora están en órbita del tamaño de una tostadora.
El infrarrojo sobre la vegetación en el planeta.
Las boyas que están afuera en los océanos
para alimentar a los modelos climáticos.
♪♪
Y la NSA, la CIA, ya que recopilan información
sobre las situaciones geopolíticas.
El mundo de hoy literalmente nada en estos datos.
♪♪
Kosinski: En 2012,
IBM calculó que un ser humano promedio
deja 500 megabytes de huellas digitales todos los días.
Si quería hacer una copia de seguridad de un día de datos
que la humanidad produce
y lo imprime en un papel del tamaño de una carta,
a doble cara, tamaño de fuente 12, y lo apilan,
llegaría desde la superficie de la Tierra
al sol cuatro veces más.
Eso es todos los días.
Kaplan: los datos en sí no son buenos ni malos.
Es cómo se usa.
Confiamos, realmente, en la buena voluntad de estas personas
y sobre las políticas de estas compañías.
No hay un requisito legal de cómo pueden
y debería usar ese tipo de datos.
Eso, para mí, es el corazón del problema de la confianza.
Barrat: ahora hay una carrera gigante para crear máquinas
que son tan inteligentes como los humanos
Google: están trabajando en lo que realmente es el tipo de
Proyecto Manhattan de inteligencia artificial.
Ellos tienen la mayor cantidad de dinero. Ellos tienen el mayor talento.
Están comprando empresas de IA y compañías de robótica.
Urban: La gente todavía piensa en Google como un motor de búsqueda
y su proveedor de correo electrónico
y muchas otras cosas que usamos a diario,
pero detrás de ese cuadro de búsqueda hay 10 millones de servidores.
Eso hace que Google sea la plataforma informática más poderosa
en el mundo.
Google ahora está trabajando en una plataforma informática de Inteligencia Artificial
que tendrá 100 millones de servidores.
Entonces, cuando estás interactuando con Google,
solo estamos viendo la uña de un dedo de algo
esa es una bestia gigante en ciernes.
Y la verdad es que ni siquiera estoy seguro
que Google sabe en lo que se está convirtiendo.
♪♪
Phoenix: si miras dentro de qué algoritmos están siendo utilizados
en Google,
es tecnología en gran parte de los años 80.
Entonces estos son modelos que entrenas mostrándoles un 1, un 2,
y un 3, y no aprende qué es 1 o qué es 2 -
Aprende cuál es la diferencia entre un 1 y un 2.
Es solo un cálculo.
En la última media década, donde hemos hecho este progreso rápido,
todo ha sido en el reconocimiento de patrones.
Tegmark: la mayor parte de la IA buena y anticuada
fue cuando le decíamos a nuestras computadoras
cómo jugar un juego como el ajedrez...
del viejo paradigma donde simplemente le dices a la computadora
exactamente qué hacer
Locutor: Esto es "¡Jeopardy!"
♪♪
"¡El desafío de IBM"!
Ferrucci: Nadie en ese momento había pensado que una máquina
podría tener la precisión y la confianza
y la velocidad para jugar "Jeopardy!"
lo suficientemente bien contra los mejores humanos.
Vamos a jugar "¡Jeopardy!"
Watson.Watson: ¿Qué es "zapato"?
Tienes razón. Tienes que elegir.
APB de carácter literario por $ 800.
Responder -- el Daily Double.
Watson realmente obtuvo su conocimiento al leer Wikipedia
y 200 millones de páginas de documentos en lenguaje natural.
Ferrucci: No puedes programar cada línea
de cómo funciona el mundo
La máquina tiene que aprender leyendo.
Ahora venimos a Watson.
"¿Quién es Bram Stoker?"
Y la apuesta?
¡Hola! $ 17,973.
$ 41,413.
Y un total de dos días de $ 77--
Phoenix: Watson entrenado en grandes cantidades de texto,
pero no es como si entendiera lo que está diciendo.
No sabe que el agua moja las cosas tocando el agua
y al ver la forma en que las cosas se comportan en el mundo
la forma en que tú y yo hacemos
Una gran cantidad de lenguaje AI hoy no está construyendo modelos lógicos
de cómo funciona el mundo
Más bien, está viendo cómo aparecen las palabras
en el contexto de otras palabras.
Barrat: David Ferrucci desarrolló Watson de IBM,
y alguien le preguntó: "¿Acaso Watson piensa?"
Y él dijo: "¿Nade un submarino?"
Y lo que querían decir era, cuando desarrollaron submarinos,
tomaron prestados los principios básicos de la natación de los peces.
Pero un submarino nada más lejos y más rápido que el pez
y puede llevar una gran carga útil.
Fuera, nada el pez.
Ng: Watson gana el juego de "Jeopardy!"
pasará a la historia de la IA
como un hito significativo.
Tendemos a sorprendernos cuando la máquina funciona tan bien.
Estoy aún más sorprendido cuando la computadora golpea a los humanos en las cosas
que los humanos son naturalmente buenos en.
Así es como progresamos.
En los primeros días del proyecto Google Brain,
Le di al equipo una instrucción muy simple,
que fue, "construir la red neuronal más grande posible,
como 1,000 computadoras ".
Almizcle: una red neuronal es algo muy cercano
a una simulación de cómo funciona el cerebro.
Es muy probabilístico, pero con relevancia contextual.
Urbano: en tu cerebro, tienes neuronas largas
que se conectan a miles de otras neuronas,
y tienes estos caminos que se forman y forjan
basado en lo que el cerebro necesita hacer
Cuando un bebé intenta algo y lo logra, hay una recompensa,
y ese camino que creó el éxito se fortalece.
Si falla en algo, el camino se debilita,
y así, con el tiempo, el cerebro se perfecciona
ser bueno en el entorno que lo rodea.
Ng: Realmente, es solo hacer que las máquinas aprendan por sí mismas.
Esto se llama "aprendizaje profundo" y "aprendizaje profundo"
y "redes neuronales" significa más o menos lo mismo.
Tegmark: el aprendizaje profundo es un enfoque totalmente diferente
donde la computadora aprende más como un niño pequeño,
simplemente obteniendo una gran cantidad de datos
y finalmente descifrar cosas.
La computadora se vuelve más inteligente y más inteligente
ya que tiene más experiencias.
Ng: Entonces, imagina, si quieres, una red neuronal, ya sabes,
como 1,000 computadoras
Y se despierta sin saber nada.
Y lo hicimos ver YouTube durante una semana.
♪♪
♪ estilo Oppan Gangnam
¡Ay!
Charlie! Eso realmente duele!
♪♪
♪ estilo Gangnam
♪ Op, op, op, op
♪ estilo Oppan Gangnam
Ng: Y así, después de ver YouTube durante una semana,
¿Qué aprendería?
Teníamos la hipótesis de que aprendería a detectar
objetos comunes en videos.
Y entonces, sabemos que los rostros humanos aparecen mucho en los videos,
entonces miramos, y he aquí,
había una neurona que había aprendido a detectar rostros humanos.
¡Dejen en paz a Britney!
Bueno, ¿qué más aparece en los videos mucho?
Entonces, miramos, y para nuestra sorpresa,
en realidad había una neurona que había aprendido a detectar gatos.
♪♪
Todavía recuerdo haber visto el reconocimiento.
"Wow, eso es un gato. De acuerdo, genial.
Estupendo."
Barrat: Todo es bastante inocuo
cuando estás pensando en el futuro
Todo parece inofensivo y benigno.
Pero estamos haciendo arquitecturas cognitivas
que volará más lejos y más rápido que nosotros
y llevar una mayor carga útil,
y no serán cálidos y confusos.
Ferrucci: Creo que, en tres a cinco años,
verás un sistema de computadora
que podrá aprender de forma autónoma
cómo entender, cómo construir entendimiento,
no muy diferente a la forma en que funciona la mente humana.
Cualquiera sea el almuerzo, ciertamente fue delicioso.
Simplemente algunos de los sintéticos de Robby.
Él es tu cocinero, también?
Incluso fabrica las materias primas.
Ven por aquí, Robby.
Te mostraré cómo funciona esto.
Uno introduce una muestra de comida humana
a través de esta apertura.
Aquí abajo hay un pequeño laboratorio químico incorporado,
donde lo analiza
Más tarde, él puede reproducir moléculas idénticas
en cualquier forma o cantidad
Por qué, es el sueño de una ama de casa.
Announcer: Conoce a Baxter,
revolucionaria nueva categoría de robots,
con sentido común.
Baxter...
Barrat: Baxter es un buen ejemplo
del tipo de competencia que enfrentamos con las máquinas.
Baxter puede hacer casi cualquier cosa que podamos hacer con nuestras manos.
Baxter cuesta lo que un trabajador con salario mínimo
hace en un año.
Pero Baxter no tomará el lugar
de un trabajador con salario mínimo -
Él tomará el lugar de tres,
porque nunca se cansan, nunca toman descansos.
Gourley: Eso es probablemente lo primero que vamos a ver -
desplazamiento de trabajos.
Se van a hacer más rápido, más rápido, más barato
por máquinas.
Nuestra capacidad de mantenernos actualizados es tan increíblemente limitada
en comparación con las máquinas que construimos.
Por ejemplo, ahora tenemos este gran movimiento de Uber y Lyft
tipo de hacer que el transporte sea más barato
y democratizar el transporte,
Lo cual es genial.
El siguiente paso será
que todos van a ser reemplazados por autos sin conductor,
y luego todos los controladores de Uber y Lyft
tiene que encontrar algo nuevo para hacer.
Barrat: hay 4 millones de conductores profesionales
en los Estados Unidos.
Están desempleados pronto.
7 millones de personas que ingresan datos.
Esas personas van a estar sin trabajo.
Un trabajo no es solo dinero, ¿verdad?
En un nivel biológico, tiene un propósito.
Se convierte en una cosa definitoria.
Cuando los trabajos desaparecieron en cualquier civilización dada,
no pasa mucho tiempo hasta que eso se convierta en violencia.
♪♪
Nos enfrentamos a una gran división entre ricos y pobres,
porque eso es lo que provocarán la automatización y la inteligencia artificial:
una mayor división entre los que tienen y los que no tienen.
En este momento, está trabajando en la clase media,
en trabajos de cuello blanco.
Watson de IBM hace análisis de negocios
que solíamos pagarle a un analista de negocios $ 300 por hora.
Gourley: Hoy vas a la universidad para ser médico,
ser contador, ser periodista
No está claro si habrá trabajos para usted.
Ng: Si alguien está planeando una carrera de 40 años en radiología,
solo leyendo imágenes,
Creo que eso podría ser un desafío
a los nuevos graduados de hoy.
♪♪
Dr. Herman: El robot da Vinci se utiliza actualmente
por una variedad de cirujanos por su precisión y su capacidad
para evitar las inevitables fluctuaciones de la mano humana.
♪♪
Cualquiera que mire esto siente lo sorprendente de eso.
Mira a través del alcance, y está viendo la mano de la garra
sosteniendo el ovario de esa mujer.
La humanidad estaba descansando aquí en las manos de este robot.
La gente dice que es el futuro, pero no es el futuro,
Es el presente.
Zilis: si piensas en un robot quirúrgico,
a menudo no hay mucha inteligencia en estas cosas,
pero con el tiempo, a medida que ponemos más y más inteligencia
en estos sistemas,
los robots quirúrgicos en realidad pueden aprender de cada cirugía de robot.
Están siguiendo los movimientos, están entendiendo
lo que funcionó y lo que no funcionó.
Y, finalmente, el robot para cirugías de rutina
va a ser capaz de realizar eso completamente solo...
o con supervisión humana
♪♪
Dr. Herman: Parece que lo estamos alimentando y creando,
pero, de alguna manera, somos esclavos de la tecnología,
porque no podemos regresar
Gourley: Las máquinas están tomando bocados cada vez más grandes
fuera de nuestro conjunto de habilidades a una velocidad cada vez mayor.
Y entonces tenemos que correr más y más rápido
para mantenerse por delante de las máquinas.
¿Como me veo?
Bueno.
¿Estás atraído por mí?
¿Te atraen?
Me das indicios de que lo eres.
¿Hago? Sí.
Nolan: Este es el futuro al que nos dirigimos.
Queremos diseñar nuestros compañeros.
Nos va a gustar ver un rostro humano en AI.
Por lo tanto, jugar nuestras emociones será deprimentemente fácil.
No somos tan complicados.
Somos simples Estímulo-respuesta.
Puedo hacerte como si básicamente te sonriera mucho.
Las IA serán fantásticas para manipularnos.
♪♪
Entonces, has desarrollado una tecnología
eso puede sentir lo que la gente está sintiendo
Derecha. Desarrollamos tecnología
que puede leer tus expresiones faciales
y mapear eso a una cantidad de estados emocionales.
el Kaliouby: hace 15 años, acababa de terminar
mis estudios de pregrado en informática,
y me di cuenta de que estaba pasando mucho tiempo
interactuando con mis computadoras portátiles y mis dispositivos,
sin embargo, estos dispositivos no tenían ni idea de cómo me sentía.
Empecé a pensar, "¿Y si este dispositivo pudiera sentir
que estaba estresado o que estaba teniendo un mal día?
¿Qué se abriría?
Hola, estudiantes de primer grado!
¿Cómo estás?
¿Me das un abrazo?
Hicimos que los niños interactúen con la tecnología.
Mucho de eso todavía está en desarrollo,
pero fue simplemente increíble.
A quién le gustan los robots? ¡Yo!
¿Quién quiere tener un robot en su casa?
¿Para qué usarías un robot, Jack?
Lo usaría para hacerle preguntas matemáticas a mi mamá.
Bueno. ¿Y tú, Theo?
Lo usaría para asustar a la gente.
Todo bien. Entonces, comienza sonriendo.
Bonito.
Surco de la frente
Buena esa. Aumento de cejas.
Esta generación, tecnología
los está rodeando todo el tiempo.
Es casi como si esperaran tener robots en sus hogares,
y esperan que estos robots sean socialmente inteligentes.
¿Qué hace que los robots sean inteligentes?
Póngalos en una clase de matemática o biología.
Creo que tendrías que entrenarlo.
Todo bien. Caminemos por aquí.
Entonces, si sonríes y levantas las cejas,
Te va a atropellar.
Mujer: ¡Se acerca! ¡Se acerca! Mira.
Pero si te ves enojado, se va a escapar.
-¡Increíble! -Oh, eso estuvo bien.
Estamos entrenando computadoras para leer y reconocer emociones.
Listo? ¿Conjunto? ¡Ir!
Y la respuesta hasta ahora ha sido realmente increíble.
La gente está integrando esto en aplicaciones de salud,
aplicaciones de meditación, robots, autos.
Vamos a ver cómo se desarrolla esto.
♪♪
Zilis: Los robots pueden contener IA,
pero el robot es solo una instanciación física,
y la inteligencia artificial es el cerebro.
Y entonces los cerebros pueden existir puramente en sistemas basados en software.
No necesitan tener una forma física.
Los robots pueden existir sin inteligencia artificial.
Tenemos muchos robots tontos por ahí.
Pero un robot tonto puede ser un robot inteligente de la noche a la mañana,
dado el software correcto, dados los sensores adecuados.
Barrat: No podemos evitar imputar el motivo en objetos inanimados.
Lo hacemos con máquinas
Los trataremos como niños.
Los trataremos como sustitutos.
-¡Adiós! -¡Adiós!
Y pagaremos el precio.
♪♪
De acuerdo, bienvenido a ATR.
♪♪
Konnichiwa.
♪♪
Gourley: construimos inteligencia artificial,
y lo primero que queremos hacer es replicarnos.
Creo que el punto clave vendrá
cuando todos los sentidos principales se replican -
visión...
toque...
oler.
Cuando replicamos nuestros sentidos, ¿es eso cuando está vivo?
♪♪
Nolan: Muchas de nuestras máquinas
se están construyendo para entendernos.
Pero, ¿qué sucede cuando una criatura antropomórfica
descubre que pueden ajustar su lealtad,
ajustar su coraje, ajustar su avaricia,
ajustar su astucia?
♪♪
Almizcle: la persona promedio, no ven robots asesinos
yendo por las calles
Son como, "¿De qué estás hablando?"
Hombre, queremos asegurarnos de que no tenemos robots asesinos
yendo por la calle.
Una vez que van por la calle, ya es demasiado tarde.
♪♪
Russell: Lo que me preocupa ahora,
eso me mantiene despierto,
es el desarrollo de armas autónomas.
♪♪
Hasta ahora, la gente ha expresado malestar por los drones,
que son aeronaves pilotadas a distancia.
♪♪
Si tomas la cámara de un dron y la alimentas en el sistema de IA,
es un paso muy fácil de aquí a armas totalmente autónomas
que eligen sus propios objetivos y lanzan sus propios misiles.
♪♪
La esperanza de vida de un ser humano
en ese tipo de entorno de batalla
se medirá en segundos.
Cantante: En un punto, los drones eran ciencia ficción,
y ahora se han convertido en lo normal en la guerra.
Hay más de 10,000 en el inventario militar de EE. UU. Solo.
Pero no son solo un fenómeno de los EE. UU.
Hay más de 80 países que los operan.
Gourley: Es lógico pensar que las personas que hacen
de las decisiones más importantes y difíciles en el mundo
van a empezar a usar e implementar
inteligencia artificial.
♪♪
La Fuerza Aérea acaba de diseñar un programa de inyección de $ 400 mil millones
poner pilotos en el cielo,
y una IA de $ 500, diseñada por un par de estudiantes graduados,
está superando a los mejores pilotos humanos
con un algoritmo relativamente simple.
♪♪
AI tendrá un gran impacto en el ejército
como el motor de combustión tenía en el cambio de siglo.
Literalmente tocará
todo lo que hace el ejército,
de convoys sin conductor que entregan suministros logísticos,
a drones no tripulados
entregando asistencia médica, propaganda computacional,
tratando de ganar los corazones y las mentes de una población.
Y así es lógico que quien tenga la mejor IA
probablemente alcanzará el dominio en este planeta.
En algún momento a principios del siglo XXI,
toda la humanidad se unió para celebrar.
Nos maravillamos de nuestra propia magnificencia
como hemos dado a luz a la IA.
¿AI?
¿Te refieres a la inteligencia artificial?
Una conciencia singular
que generó una raza completa de máquinas.
No sabemos quién golpeó primero, nosotros o ellos,
pero sabemos que fuimos nosotros los que quemaron el cielo.
Cantante: hay una larga historia de ciencia ficción,
no solo prediciendo el futuro, sino dando forma al futuro.
♪♪
Arthur Conan Doyle escribiendo antes de la Primera Guerra Mundial
sobre el peligro de cómo los submarinos podrían ser utilizados
para llevar a cabo bloqueos civiles.
En el momento en que está escribiendo esta ficción,
la Marina Real se burló de Arthur Conan Doyle
por esta absurda idea
que los submarinos podrían ser útiles en la guerra.
♪♪
Una de las cosas que hemos visto en la historia
es esa nuestra actitud hacia la tecnología,
pero también la ética, son muy dependientes del contexto.
Por ejemplo, el submarino...
naciones como Gran Bretaña e incluso los Estados Unidos
Me pareció horrible usar el submarino.
De hecho, el uso alemán del submarino para llevar a cabo ataques
fue la razón por la cual Estados Unidos se unió a la Primera Guerra Mundial.
Pero mueve la línea de tiempo hacia adelante.
Hombre: los Estados Unidos de América fue repentinamente
y deliberadamente atacado por el imperio de Japón.
Cinco horas después de Pearl Harbor, la orden se apaga
para cometer guerra submarina sin restricciones contra Japón.
Entonces Arthur Conan Doyle resultó estar en lo cierto.
Nolan: Esa es la gran línea antigua sobre ciencia ficción -
Es una mentira que dice la verdad.
Compañeros ejecutivos, me da un gran placer
para presentarle el futuro de la aplicación de la ley...
ED-209.
♪♪
Esto no es solo una cuestión de ciencia ficción.
Se trata de lo que viene a continuación, de lo que está sucediendo en este momento.
♪♪
El papel de los sistemas inteligentes está creciendo muy rápidamente
en la guerra.
Todos están empujando en el reino no tripulado.
♪♪
Gourley: Hoy, el Secretario de Defensa es muy, muy claro -
No crearemos vehículos de ataque totalmente autónomos.
No todos se van a sostener
a ese mismo conjunto de valores.
Y cuando China y Rusia comiencen a desplegar vehículos autónomos
que puede atacar y matar, ¿cuál es el movimiento que vamos a hacer?
♪♪
Russell: No puedes decir: "Bueno, vamos a usar
armas autónomas para nuestro dominio militar,
pero nadie más los va a usar ".
Si haces estas armas, se usarán para atacar
poblaciones humanas en grandes cantidades.
♪♪
Las armas autónomas son, por su naturaleza,
Armas de destrucción masiva,
porque no necesita un ser humano para guiarlo o llevarlo.
Solo necesitas una persona, para, ya sabes,
escribe un pequeño programa
Simplemente captura la complejidad de este campo.
Es genial. Es importante.
Es asombroso.
También es aterrador.
Y se trata de confianza.
Es una carta abierta sobre inteligencia artificial,
firmado por algunos de los nombres más importantes de la ciencia.
¿Que quieren ellos?
Prohibir el uso de armas autónomas.
Mujer: el autor declaró,
"Se han descrito armas autónomas
como la tercera revolución en la guerra ".
Mujer # 2:... mil inteligencia artificial especialistas
pidiendo una prohibición global de robots asesinos.
Tegmark: Esta carta abierta básicamente dice
que debemos redefinir el objetivo
del campo de la inteligencia artificial
lejos de solo crear inteligencia pura, no dirigida,
hacia la creación de inteligencia beneficiosa.
El desarrollo de la IA no se va a detener.
Va a continuar y mejorarse.
Si la comunidad internacional
no está poniendo ciertos controles sobre esto,
las personas desarrollarán cosas que pueden hacer cualquier cosa.
Mujer: la carta dice que estamos años, no décadas,
lejos de estas armas desplegadas.
Entonces antes que nada...
Tuvimos 6.000 signatarios de esa carta,
incluyendo muchas de las figuras principales en el campo.
Recibo muchas visitas de altos funcionarios
que desean enfatizar que el dominio militar estadounidense
es muy importante, y armas autónomas
puede ser parte del plan del Departamento de Defensa.
Eso es muy, muy aterrador, porque un sistema de valores
de desarrolladores militares de tecnología
no es lo mismo que un sistema de valores de la raza humana.
♪♪
Markoff: Fuera de las preocupaciones sobre la posibilidad
que esta tecnología podría ser una amenaza para la existencia humana,
un número de tecnólogos
han financiado el Future of Life Institute
para tratar de lidiar con estos problemas.
Todos estos tipos son reservados,
y entonces es interesante para mí verlos,
Ya sabes, todos juntos.
Todo lo que tenemos es el resultado de nuestra inteligencia.
No es el resultado de nuestros dientes grandes y aterradores
o nuestras grandes garras o nuestros enormes músculos.
Es porque en realidad somos relativamente inteligentes.
Y entre mi generación, todos estamos teniendo
lo que llamamos "vaca santa"
o "algo sagrado" momentos,
porque vemos que la tecnología
está acelerando más rápido de lo que esperábamos
Recuerdo estar sentado alrededor de la mesa allí
con algunas de las mejores y más inteligentes mentes del mundo,
y lo que realmente me llamó la atención fue
tal vez el cerebro humano no es capaz de captar por completo
la complejidad del mundo al que nos enfrentamos.
Russell: Como está actualmente construido,
el camino que AI sigue se sale de un acantilado,
y tenemos que cambiar la dirección en la que vamos
para que no saquemos a la raza humana del acantilado.
Musk: Google adquirió DeepMind hace varios años.
DeepMind opera
como una subsidiaria semi-independiente de Google.
Lo que hace único a DeepMind
es que DeepMind está absolutamente enfocado
en la creación de superintelligence digital -
una IA que es mucho más inteligente que cualquier ser humano en la Tierra
y finalmente más inteligente que todos los humanos en la Tierra combinados.
Esto es del sistema de aprendizaje de refuerzo DeepMind.
Básicamente se despierta como un bebé recién nacido
y se muestra la pantalla de un videojuego Atari
y luego tiene que aprender a jugar el videojuego.
No sabe nada sobre los objetos, sobre el movimiento, sobre el tiempo.
Solo sabe que hay una imagen en la pantalla
y hay un puntaje
Entonces, si su bebé se despertó el día en que nació
y, por la tarde,
estaba jugando 40 videojuegos Atari diferentes
en un nivel sobrehumano, estarías aterrorizado.
Usted diría: "Mi bebé está poseído. Envíelo de vuelta".
Almizcle: El sistema DeepMind puede ganar en cualquier juego.
Ya puede vencer a todos los juegos originales de Atari.
Es sobrehumano
Juega los juegos a velocidad súper rápida en menos de un minuto.
♪♪
DeepMind se volvió a otro desafío,
y el desafío fue el juego de Go,
qué personas generalmente han discutido
ha estado más allá del poder de las computadoras
para jugar con los mejores jugadores humanos de Go.
Primero, desafiaron a un campeón europeo de Go.
Luego desafiaron a un campeón de Corea del Sur.
Hombre: Por favor, comienza el juego.
Y fueron capaces de ganar las dos veces
de una manera llamativa.
Nolan: Estabas leyendo artículos en New York Timesyears ago
hablando de cómo Go tomaría 100 años para que resolvamos.
Urbano: La gente dijo: "Bueno, ya sabes,
pero eso es solo una tabla.
El póker es un arte.
El poker implica leer personas.
El poker implica mentir y farolear.
No es una cosa exacta.
Eso nunca será, ya sabes, una computadora.
No puedes hacer eso ".
Tomaron los mejores jugadores de poker del mundo,
y tomó siete días para la computadora
para comenzar a demoler a los humanos
Entonces, es el mejor jugador de poker del mundo,
es el mejor jugador Go del mundo, y el patrón aquí
es que AI podría tomar un poco de tiempo
para envolver sus tentáculos en torno a una nueva habilidad,
pero cuando lo hace, cuando lo consigue, es imparable.
♪♪
La inteligencia artificial de DeepMind tiene acceso a nivel de administrador
a los servidores de Google
para optimizar el uso de energía en los centros de datos.
Sin embargo, esto podría ser un caballo de Troya involuntario.
DeepMind tiene que tener control completo de los centros de datos,
así que con una pequeña actualización de software,
que la IA podría tomar el control completo
de todo el sistema de Google,
lo que significa que pueden hacer cualquier cosa.
Podrían ver todos tus datos.
Podrían hacer cualquier cosa.
♪♪
Nos dirigimos rápidamente hacia la superinteligencia digital
eso excede por mucho a cualquier humano.
Creo que es muy obvio.
Barrat: El problema es que no vamos a
golpear de repente la inteligencia a nivel humano
y decir: "De acuerdo, detengamos la investigación".
Va a ir más allá de la inteligencia a nivel humano
en lo que se llama "superinteligencia"
y eso es algo más inteligente que nosotros.
Tegmark: AI en el nivel sobrehumano,
si tenemos éxito con eso, será
de lejos, la invención más poderosa que hemos hecho
y la última invención que tenemos que hacer.
Y si creamos IA que es más inteligente que nosotros,
tenemos que estar abiertos a la posibilidad
que en realidad podríamos perder el control sobre ellos.
♪♪
Russell: Digamos que le das un objetivo,
como curar el cáncer, y luego descubres
que la forma en que elige hacer eso
está en conflicto
con muchas otras cosas que te importan
Almizcle: AI no tiene que ser malvado para destruir a la humanidad.
Si AI tiene un objetivo, y la humanidad simplemente está en el camino,
destruirá a la humanidad como algo natural,
sin siquiera pensarlo. Sin resentimientos.
Es como si estuviéramos construyendo una carretera
y un hormiguero pasa a estar en el camino...
No odiamos hormigas.
Estamos construyendo un camino.
Y así adiós, hormiguero.
♪♪
Es tentador descartar estas preocupaciones,
porque es algo que podría pasar
en unas pocas décadas o 100 años, ¿por qué preocuparse?
Russell: Pero si vuelves al 11 de septiembre de 1933,
Ernest Rutherford,
quien fue el físico nuclear más conocido de su tiempo,
dijo que la posibilidad
de extraer cantidades útiles de energía
de la transmutación de átomos, como él lo llamó,
era lunar.
A la mañana siguiente, Leo Szilard,
quien era un físico mucho más joven,
lee esto y realmente te molestaste y descubriste
cómo hacer una reacción en cadena nuclear
solo unos meses después.
♪♪
Hemos gastado más de $ 2 mil millones
en la mayor apuesta científica de la historia.
Russell: Entonces cuando la gente dice eso, "Oh, esto está tan lejos
en el futuro, no tenemos que preocuparnos por eso ".
podría ser solo tres, cuatro avances de esa magnitud
eso nos llevará desde aquí a las máquinas superinteligentes.
Tegmark: si va a tomar 20 años descubrir
cómo mantener la IA beneficiosa,
entonces deberíamos comenzar hoy, no en el último segundo
cuando algunos tipos beben Red Bull
decide encender el interruptor y probar la cosa.
♪♪
Almizcle: Tenemos cinco años.
Creo que la superinteligencia digital
sucederá en mi vida.
100%
Barrat: cuando esto sucede,
estará rodeado por un grupo de personas
que realmente están entusiasmados con la tecnología.
Quieren ver que tenga éxito, pero no están anticipando
que puede perder el control.
♪♪
Dios mío, confío mucho en mi computadora.
Esa es una pregunta increíble.
No confío en mi computadora.
Si está activado, me lo quito.
Al igual, incluso cuando está apagado,
Todavía creo que está encendido. ¿Como tú sabes?
Como, realmente no puedes tru-- Como, las webcams,
no sabes si alguien podría activarlo...
Tú no sabes, como.
No confío en mi computadora.
Como, en mi teléfono, cada vez que me preguntan
"¿Podemos enviarle su información a Apple?"
cada vez, yo...
Entonces, no confío en mi teléfono.
Bueno. Entonces, parte de eso es, sí, confío en eso,
porque sería muy difícil pasar el día
en la forma en que nuestro mundo está configurado sin computadoras.
♪♪
Dr. Herman: La confianza es una experiencia humana.
♪♪
Tengo un paciente que ingresa con un aneurisma intracraneal.
♪♪
Quieren mirarme a los ojos y saber
que pueden confiar en esta persona con su vida.
No estoy terriblemente preocupado por nada.
Bueno. Parte de eso
es porque tengo confianza en ti.
♪♪
Este procedimiento lo estamos haciendo hoy
Hace 20 años era esencialmente imposible.
Simplemente no teníamos los materiales y las tecnologías.
♪♪
Entonces, la bobina apenas está allí ahora.
Es solo una pluma sosteniéndolo.
Es un momento nervioso.
♪♪
Estamos justo en el purgatorio,
purgatorio intelectual y humanista
y AI podría saber exactamente qué hacer aquí.
♪♪
Tenemos la espiral en el aneurisma.
Pero no estaba tremendamente bien
que sabía que se quedaría,
entonces, con un riesgo tal vez del 20% de una situación muy mala,
Elegí simplemente traerla de vuelta.
Debido a mi relación con ella
y sabiendo las dificultades de entrar
y teniendo el procedimiento, considero las cosas,
cuando debería considerar solo la ruta más segura posible
para lograr el éxito.
Pero tuve que soportar 10 minutos de agonía al respecto.
La computadora no siente nada.
La computadora simplemente hace lo que se supone que debe hacer,
mejor y mejor.
♪♪
Quiero ser AI en este caso.
¿Pero puede AI ser compasivo?
♪♪
Quiero decir, es la pregunta de todos sobre IA.
Somos la única encarnación de la humanidad,
y es difícil para nosotros aceptar que una máquina
puede ser compasivo y amoroso de esa manera.
♪♪
Parte de mí no cree en la magia,
pero parte de mí tiene fe en que hay algo
más allá de la suma de las partes,
que hay al menos una unidad en nuestra ascendencia compartida,
nuestra biología compartida, nuestra historia compartida.
Alguna conexión más allá de la máquina.
♪♪
Entonces, tienes el otro lado de eso, es,
¿Sabe la computadora que es consciente?
o puede ser consciente, o le importa?
¿Necesita ser consciente?
♪♪
No creo que un robot pueda estar consciente.
A menos que lo hayan programado de esa manera.
¿Consciente? No.
No. No.
Quiero decir, creo que un robot podría estar programado para ser consciente.
¿Cómo están programados para hacer todo lo demás?
Esa es otra gran parte de la inteligencia artificial,
es hacerlos conscientes y hacerlos sentir.
♪♪
Lipson: En 2005, comenzamos a tratar de construir máquinas
con autoconciencia
♪♪
Este robot, para empezar, no sabía de qué se trataba.
Todo lo que sabía era que necesitaba hacer algo como caminar.
♪♪
A través de prueba y error,
descubrió cómo caminar usando su imaginación,
y luego se alejó.
Y luego hicimos algo muy cruel.
Nos cortamos una pierna y observamos lo que sucedió.
♪♪
Al principio, no sabía muy bien qué había pasado.
Pero durante un período de un día, comenzó a flotar.
Y luego, hace un año, estábamos entrenando un sistema de inteligencia artificial
para una demostración en vivo.
Queríamos mostrar cómo saludamos
todos estos objetos en frente de la camara
y la IA podría reconocer los objetos.
Y entonces, estamos preparando esta demostración,
y teníamos en una pantalla lateral esta habilidad
para ver a qué respondían ciertas neuronas.
Y de repente notamos que una de las neuronas
estaba rastreando caras
Nos estaba rastreando la cara mientras nos movíamos.
Ahora, lo espeluznante de esto es que nunca hemos entrenado
el sistema para reconocer caras humanas,
y sin embargo, de alguna manera, aprendió a hacer eso.
Aunque estos robots son muy simples,
podemos ver que hay algo más pasando allí.
No es solo programación.
Entonces, esto es solo el comienzo.
Horvitz: A menudo pienso en esa playa en Kitty Hawk,
el vuelo de 1903 de Orville y Wilbur Wright.
Era una especie de avión de lona, y es de madera y hierro,
y se levanta del suelo durante, qué, un minuto y 20 segundos,
en este día ventoso
antes de tocar nuevamente hacia abajo.
Y fue solo alrededor de 65 veranos más o menos
después de ese momento que tienes un 747 despegando de JFK...
♪♪
... donde una gran preocupación de alguien en el avión
podría ser si su comida de dieta libre de sal
va a llegar a ellos o no.
Tenemos una infraestructura completa,
con agentes de viajes y control de torres,
y todo es casual, y todo es parte del mundo.
♪♪
En este momento, por lo que hemos venido con máquinas
que piensan y resuelven problemas, estamos en Kitty Hawk ahora.
Estamos en el viento.
Tenemos nuestros planos de lona hecha jirones en el aire.
♪♪
¿Pero qué sucede en 65 veranos más o menos?
Tendremos máquinas que están más allá del control humano.
¿Deberíamos preocuparnos por eso?
♪♪
No estoy seguro de que vaya a ayudar.
Kaplan: Nadie tiene idea hoy de lo que significa para un robot
ser consciente.
No existe tal cosa.
Hay muchas personas inteligentes,
y les tengo un gran respeto,
pero la verdad es que las máquinas son psicópatas naturales.
Hombre: El miedo volvió al mercado.
Hombre # 2: Bajó 800, casi 1,000, en un abrir y cerrar de ojos.
Quiero decir, es una capitulación clásica.
Hay algunas personas que están proponiendo
fue algún tipo de error con el dedo gordo.
Toma el Flash Crash de 2010.
En cuestión de minutos, $ 1 trillón en valor
se perdió en el mercado de valores.
Mujer: el Dow cayó casi 1,000 puntos en media hora.
Kaplan: Entonces, ¿qué salió mal?
En ese momento, más del 60% de todos los comercios
que tuvo lugar en la bolsa de valores
en realidad estaban siendo iniciadas por computadoras.
Hombre: Pánico vendiendo en el camino hacia abajo,
y de repente se detuvo en un centavo.
Hombre n. ° 2: Todo esto sucede en tiempo real, amigos.
Wisz: la historia corta de lo que sucedió en Flash Crash
es que los algoritmos respondieron a los algoritmos,
y se compuso sobre sí mismo una y otra vez
en cuestión de minutos.
Hombre: en un momento dado, el mercado cayó como en un pozo.
No existe un organismo regulador que pueda adaptarse lo suficientemente rápido
para prevenir consecuencias potencialmente desastrosas
de AI operando en nuestros sistemas financieros.
Son tan primordiales para la manipulación.
Hablemos de la velocidad con que
estamos viendo que este mercado se deteriora.
Ese es el tipo de AI-run-amuck que asusta a las personas.
Kaplan: Cuando les das un objetivo,
perseguirán implacablemente ese objetivo.
¿Cuántos programas de computadora hay como este?
Nadie lo sabe.
Kosinski: uno de los aspectos fascinantes sobre la IA en general
es que nadie realmente entiende cómo funciona.
Incluso las personas que crean AI realmente no entienden completamente.
Porque tiene millones de elementos,
se vuelve completamente imposible
para que un ser humano entienda lo que está pasando.
♪♪
Grassegger: Microsoft había establecido esta inteligencia artificial
llamado Tay en Twitter, que era un chatbot.
Comenzaron por la mañana,
y Tay estaba empezando a tuitear y aprender de las cosas
que le estaba siendo enviado por otra gente de Twitter.
Porque algunas personas, como trolls, lo atacaron,
en 24 horas, el robot de Microsoft se convirtió en una persona terrible.
Tuvieron que literalmente sacar a Tay de la red
porque se había convertido en un monstruo.
Una persona misántropa, racista y horrible que nunca querrías conocer.
Y nadie había previsto esto.
La idea de AI es que no estamos diciendo exactamente
cómo lograr un resultado o una meta determinados.
AI se desarrolla solo.
Nolan: estamos preocupados por IA superinteligente,
el maestro jugador de ajedrez que nos superará,
pero AI no tendrá que ser tan inteligente
tener efectos masivamente disruptivos en la civilización humana.
Hemos visto durante el siglo pasado
no necesariamente se necesita un genio para noquear la historia
en una dirección particular,
y no le tomará a un genio AI hacer lo mismo.
Las noticias falsas sobre las elecciones generaron más compromiso
en Facebook que las mejores historias reales.
Facebook realmente es el elefante en la habitación.
Kosinski: AI ejecutando noticias de Facebook:
La tarea de AI es mantener a los usuarios interesados,
pero nadie realmente entiende
exactamente cómo esta IA está logrando este objetivo.
Nolan: Facebook está construyendo una elegante pared de espejos a nuestro alrededor.
Un espejo que podemos preguntar, "¿Quién es el más justo de todos?"
y responderá, "Tú, tú" Tiempo y otra vez
y lentamente comienzan a deformar nuestro sentido de la realidad,
deformar nuestro sentido de la política, la historia, los eventos globales,
hasta determinar lo que es verdadero y lo que no es cierto,
es virtualmente imposible.
El problema es que AI no entiende eso.
AI acaba de tener una misión - maximizar el compromiso del usuario,
y lo logró.
Cerca de 2 mil millones de personas pasan casi una hora
en promedio, un día básicamente interactuando con la IA
eso está dando forma a su experiencia.
Incluso los ingenieros de Facebook, no les gustan las noticias falsas.
Es un mal negocio.
Quieren deshacerse de las noticias falsas.
Es simplemente muy difícil de hacer porque,
¿Cómo reconoces las noticias como falsas?
si no puedes leer todas esas noticias personalmente?
Hay tanta desinformación activa
y está empaquetado muy bien,
y se ve igual cuando lo ves en una página de Facebook
o enciendes tu televisor.
Nolan: No es terriblemente sofisticado
pero es terriblemente poderoso.
Y lo que significa es que tu visión del mundo,
que, hace 20 años, se determinó,
si viste las noticias nocturnas, por tres redes diferentes,
los tres presentadores que trataron de hacer las cosas bien.
Podría haber tenido un pequeño sesgo de una forma u otra,
pero, en general, todos podríamos estar de acuerdo
en una realidad objetiva.
Bueno, esa objetividad se fue,
y Facebook lo ha aniquilado por completo.
♪♪
Si la mayoría de su comprensión de cómo funciona el mundo
se deriva de Facebook,
facilitado por software algorítmico
que intenta mostrarle las noticias que desea ver,
eso es algo terriblemente peligroso.
Y la idea de que no solo hemos puesto eso en movimiento,
pero permitió a los actores de mala fe acceder a esa información...
Quiero decir, esta es una receta para el desastre.
♪♪
Urban: Creo que definitivamente habrá muchos malos actores
tratando de manipular el mundo con IA
2016 fue un ejemplo perfecto de una elección
donde había mucha IA produciendo muchas noticias falsas
y distribuirlo para un propósito, para un resultado.
Señoras y señores, honorables colegas...
es mi privilegio hablarles hoy
sobre el poder de los grandes datos y la psicografía
en el proceso electoral
y, específicamente, para hablar sobre el trabajo
que contribuimos al Senador Cruz
campaña primaria presidencial.
Nolan: Cambridge Analytica surgió silenciosamente como una empresa
que, según su propio bombo,
tiene la capacidad de usar esta tremenda cantidad de datos
con el fin de efectuar un cambio social.
En 2016, tenían tres clientes principales.
Ted Cruz fue uno de ellos.
Es fácil olvidar eso, hace solo 18 meses,
El senador Cruz fue uno de los candidatos menos populares
buscando nominación.
Entonces, lo que no fue posible tal vez, como, hace 10 o 15 años,
fue que puedes enviar noticias falsas
exactamente a las personas a las que desea enviarlo.
Y luego puedes ver cómo reacciona él o ella en Facebook
y luego ajustar esa información
de acuerdo con los comentarios que tienes.
Entonces puedes comenzar a desarrollar
tipo de gestión en tiempo real de una población.
En este caso, hemos zonificado en
en un grupo que hemos llamado "Persuasión".
Estas son personas que definitivamente van a votar,
al caucus, pero necesitan mudarse del centro
un poco más hacia la derecha.
para apoyar a Cruz.
Necesitan un mensaje de persuasión.
"Derechos de armas", he seleccionado.
Eso reduce el campo un poco más.
Y ahora sabemos que necesitamos un mensaje sobre los derechos de armas,
tiene que ser un mensaje de persuasión,
y necesita ser matizado
de acuerdo con la cierta personalidad
en lo que estamos interesados
A través de las redes sociales, hay una cantidad infinita de información
que puedes juntar a una persona
Tenemos cerca de 4.000 o 5.000 puntos de datos
en cada adulto en los Estados Unidos.
Grassegger: se trata de apuntar al individuo.
Es como un arma, que se puede usar
en la dirección totalmente equivocada.
Ese es el problema con todos estos datos.
Es casi como si construyéramos la bala antes de construir el arma.
Ted Cruz empleó nuestros datos,
nuestras ideas conductuales.
Empezó desde una base de menos del 5%
y tenía un ritmo muy lento y constante pero firme aumento a más del 35%,
haciéndolo, obviamente,
el segundo contendiente más amenazante en la carrera.
Ahora, claramente, la campaña de Cruz ya terminó,
pero lo que puedo decirte
es el de los dos candidatos que quedan en esta elección,
uno de ellos está usando estas tecnologías.
Yo, Donald John Trump, juro solemnemente
que voy a ejecutar fielmente
la oficina del presidente de los Estados Unidos.
♪♪
Nolan: las elecciones son un ejercicio marginal.
No requiere una IA muy sofisticada
para tener un impacto desproporcionado.
Antes de Trump, Brexit era otro supuesto cliente.
Bueno, de 20 minutos a 5:00,
ahora podemos decir la decisión tomada en 1975
por este país para unirse al mercado común
ha sido revertido por este referéndum para salir de la UE.
Nolan: Cambridge Analytica supuestamente usa AI
para empujar a través de dos de las piezas más temblorosas
de cambio político en los últimos 50 años.
Estos son eventos de época, y si creemos en la publicidad,
están conectados directamente a una pieza de software,
esencialmente, creado por un profesor en Stanford.
♪♪
Kosinski: En 2013, describí
que lo que están haciendo es posible
y advirtió contra esto sucediendo en el futuro.
Grassegger: En ese momento, Michal Kosinski
era un joven investigador polaco
trabajando en el Centro de Psicometría.
Entonces, lo que Michal había hecho era reunir el mayor conjunto de datos de la historia
de cómo las personas se comportan en Facebook.
Kosinski: La psicometría está intentando para medir los rasgos psicológicos,
como personalidad, inteligencia,
opiniones políticas, etc.
Ahora, tradicionalmente, esos rasgos se midieron
usando pruebas y preguntas.
Nolan: prueba de personalidad lo más benigno
posiblemente podrías pensar en
Algo que no necesariamente tiene
mucha utilidad, ¿verdad?
Kosinski: Nuestra idea era que en lugar de pruebas y preguntas,
simplemente podríamos mirar las huellas digitales de los comportamientos
que todos estamos dejando atrás
para entender la apertura,
Conciencia, neuroticismo.
Grassegger: puede comprar fácilmente datos personales,
como dónde vives, qué membresías de club has probado,
a qué gimnasio vas.
En realidad, hay mercados para datos personales.
Nolan: Resulta que podemos descubrir muchísimo
sobre lo que vas a hacer
basado en un muy, muy pequeño conjunto de información.
Kosinski: Estamos entrenando redes de aprendizaje profundo
para inferir rasgos íntimos,
las opiniones políticas de las personas, la personalidad,
inteligencia, orientación sexual
solo por una imagen de la cara de alguien.
♪♪
Ahora piense en países que no son tan libres y de mente abierta.
Si puedes revelar las opiniones religiosas de las personas
o puntos de vista políticos u orientación sexual
basado en solo imágenes de perfil,
esto podría ser literalmente una cuestión de vida o muerte.
♪♪
Creo que no hay vuelta atrás.
¿Sabes lo que es la prueba de Turing?
Es cuando un humano interactúa con una computadora,
y si el humano no sabe que están interactuando
con una computadora,
la prueba es aprobada
Y en los próximos días,
serás el componente humano en una prueba de Turing.
Mierda. Sí, eso es correcto, Caleb.
Lo tienes.
Porque si se pasa esa prueba,
estás en el centro del mayor evento científico
en la historia del hombre
Si has creado una máquina consciente,
no es la historia del hombre--
Esa es la historia de los dioses.
♪♪
Nolan: es casi como que la tecnología es un dios
en sí mismo.
♪♪
Como el clima No podemos impactarlo.
No podemos desacelerarlo. No podemos detenerlo.
Nos sentimos impotentes.
Kurzweil: Si pensamos en Dios
como una cantidad ilimitada de inteligencia,
lo más cerca que podemos llegar a eso
es evolucionando nuestra propia inteligencia
al fusionarse con la inteligencia artificial que estamos creando.
Almizcle: Hoy, nuestras computadoras, teléfonos,
las aplicaciones nos dan una capacidad sobrehumana.
Entonces, como dice la antigua máxima, si no puedes vencerlos, únete a ellos.
Kaliouby: Se trata de una asociación entre humanos y máquinas.
Quiero decir, ya vemos cómo, ya sabes,
nuestros teléfonos, por ejemplo, actúan como prótesis de memoria, ¿verdad?
Ya no tengo que recordar tu número de teléfono
porque está en mi teléfono.
Se trata de máquinas que aumentan nuestras habilidades humanas,
en lugar de, como, desplazarlos por completo.
Nolan: si miras todos los objetos que han dado el salto
de analógico a digital en los últimos 20 años...
es mucho
Somos el último objeto analógico en un universo digital.
Y el problema con eso, por supuesto,
es que la entrada / salida de datos es muy limitada.
Es esto. Son estos.
Zilis: Nuestros ojos son bastante buenos.
Somos capaces de tomar mucha información visual.
Pero nuestra producción de información es muy, muy, muy baja.
La razón por la cual esto es importante - Si imaginamos un escenario
donde la IA desempeña un papel más destacado en las sociedades,
queremos buenas maneras de interactuar con esta tecnología
para que termine incrementándonos.
♪♪
Musk: creo que es increíblemente importante
que AI no sea "otro".
Debemos ser nosotros.
Y podría estar equivocado sobre lo que estoy diciendo.
Estoy ciertamente abierto a las ideas
si alguien puede sugerir un camino que es mejor.
Pero creo que realmente tendremos que fusionarnos con AI
o ser dejado atrás.
♪♪
Gourley: es difícil pensar en desconectar un sistema
que se distribuye por todo el planeta,
que se distribuye ahora a través del sistema solar.
No puedes simplemente, ya sabes, cerrar eso.
Nolan: Hemos abierto la caja de Pandora.
Hemos desatado fuerzas que no podemos controlar, no podemos parar.
Estamos en medio de esencialmente crear
una nueva forma de vida en la Tierra.
♪♪
Russell: No sabemos lo que sucede después.
No sabemos qué forma el intelecto de una máquina
será cuando ese intelecto está más allá de las capacidades humanas.
Simplemente no es algo que es posible.
♪♪
El menos terrorífico futuro que puedo pensar es uno
donde al menos hemos democratizado AI.
Porque si una empresa o un pequeño grupo de personas
se las arregla para desarrollar superinteligencia digital divina,
ellos pueden dominar el mundo.
Al menos cuando hay un dictador malvado,
ese humano va a morir,
pero, para una IA, no habría muerte.
Viviría para siempre.
Y luego tienes un dictador inmortal
de lo cual nunca podremos escapar.
♪♪
Mujer en P.A .: Alan. Macchiato.
♪♪
Mujer: ¿Hola?
♪♪
♪ Sí, sí
♪♪
♪ Sí, sí
♪♪
¿Hola?
♪♪